Tiến hành cuộc cải cách theo đề án của Calvin, ngày 20 tháng 11 năm 1541, Hội đồng Thành phố Geneva ban hành Ordonnances ecclésiastiques (Sắc lệnh Giáo hội), ấn định bốn chức năng mục vụ: Mục sư chuyên trách giảng luận và ban hành thánh lễ; Học giả hướng dẫn tín hữu trong lĩnh vực đức tin; Trưởng lão chăm lo phần kỷ luật, và Chấp sự chăm sóc người nghèo và người đang khó khăn.[31] Họ cũng kêu gọi thành lập Consistoire, một loại hình tòa án giáo hội bao gồm các trưởng lão được chọn trong vòng các tín hữu và các mục sư. Chính quyền giữ quyền triệu tập đương sự, thẩm quyền tài phán của Consistoire bị giới hạn trong các vấn đề liên quan đến giáo hội.[32]

Lập nền trên giáo huấn của Kinh Thánh, Calvin xây dựng một thể chế mới cho giáo hội, lúc ấy được xem là duy nhất, đặt tín hữu vào vị trí quan trọng trong cơ cấu tổ chức, để họ có thể cộng tác bình đẳng với các mục sư thông qua một hệ thống chức trách được thiết lập bởi tiến trình bầu cử dân chủ nhằm duy trì sự hiệp nhất của hội thánh. Về giáo nghi, khác với Martin Luther, người chủ trương duy trì những truyền thống cũ được xem là có giá trị, Calvin quay về với Kinh Thánh để thiết lập các nguyên lý căn bản cho hệ thống giáo nghi của hội thánh.[33]

Trong thời gian ở Geneva, Calvin đã thuyết giảng hơn hai ngàn lần. Lúc đầu, ông giảng luận hai lần mỗi Chúa nhật, và ba lần trong tuần. Điều này là quá sức ông nên hội đồng quyết định ông chỉ giảng một lần vào Chúa nhật. Bài giảng của ông thường kéo dài hơn một giờ mà không sử dụng ghi chú. Đến năm 1549, Denis Raguenier, học biết và phát triển phương pháp tốc ký, bắt đầu ghi chép những bài giảng của Calvin. Một phân tích của T. H. L. Parker cho thấy Calvin trung thành với một phương pháp giảng luận.[34][35]

Người ta không biết gì nhiều về đời sống cá nhân của Calvin. Ngôi nhà ông ở và vật dụng bên trong đều là tài sản của hội đồng thành phố. Ngôi nhà đủ rộng cho gia đình ông và gia đình của Antoine với vài người giúp việc. Ngày 28 tháng 7 năm 1542, Idelette sinh một con trai, Jacques, nhưng cháu bé bị sinh non và chết sớm. Năm 1545, Idelette mắc bệnh, ngày 29 tháng 3 năm 1549, bà qua đời. Calvin không bao giờ tái hôn. Trong một bức thư gởi Viret, ông viết: "Tôi vừa mất người bạn tốt nhất trong đời, người sẵn lòng chia sẻ không chỉ sự nghèo khó mà cả cái chết. Suốt cuộc đời, cô ấy là người hỗ trợ trung thành cho chức vụ của tôi. Tôi chưa hề thấy một trở ngại nào từ cô ấy, dù là nhỏ nhất."[36]

Ở Geneva, Calvin tiếp tục duy trì tình bạn với những thân hữu như Montmor, Codier, Cop, Farel, Melanchthon, và Bullinger.[37]